Know Before You Fetch: Calibrated Retrieval-Budget Allocation for Retrieval-Augmented Generation
获取前须知:检索增强生成中校准的检索预算分配
🧭 自适应检索预算分配 · RAG 校准
University of Maine at Presque Isle · Stanford University · Independent Researcher
为 RAG 提出校准概率接口,依置信度分配检索预算(闭卷/紧凑/完整/弃答),实现延迟与准确率权衡
📌 工作参考价值(4 点)
- 在检索增强的推荐或搜索系统中,可以根据模型置信度自适应调整检索深度(如仅用闭卷回答或检索少量文档),节省计算资源并减少延迟。
- 将序列对数概率等不确定性信号校准为正确性概率,用于选择性召回或拒绝回答,避免低质量输出影响用户体验,尤其适合高可靠性要求的排序或问答环节。
- 提供校准后的概率接口,允许系统在延迟和准确率之间显式权衡,可通过设置不同阈值适应不同场景(如高吞吐的广告检索与低延迟的在线推荐)。
- 离线校准步骤(如 Platt scaling)能大幅降低预期校准误差(ECE),直接移植到电商 RAG 管道中,提升检索决策的可靠性。